Dual-Axis Policy Optimization for LLM Agents: Bayesian Feedback Attribution and Trajectory Mass Normalization
LLM Agent 双轴策略优化：贝叶斯反馈归因与轨迹质量归一化
🧭 Agent 强化学习训练优化 ★ 深度解读
Zhejiang University · University of Science and Technology of China · University of New South Wales · Shanghai Artificial Intelligence Laboratory
提出 BATON 框架，分离轨迹内反馈归因与轨迹间目标聚合，提升多轮 Agent RL 效果并降低推理长度
📌 工作参考价值（4 点）
- 训练多轮购物导购/搜索 Agent 时，直接按 token 平均会被长失败轨迹主导，可先做 trajectory-level mean 再跨轨迹等权平均，只改 loss 聚合就能缓解长度偏差，易接入现有 GRPO/GiGPO 流水线。
- BFA 的“反馈兼容性”思想适合只有 outcome reward 或稀疏环境反馈的场景：不替换 reward，而是用 old policy 对 observed feedback 的 likelihood 与 counterfactual action 比较，生成 step-level soft 权重；对检索增强问答、多轮选品对话尤其可复用。
- 工程落地时可以先只上 TMN，几乎零额外开销（约 1.01-1.02 倍训练时间），能拿到一部分稳定收益；BFA 需要额外 forward 计算（总开销约 1.10-1.17 倍），但可同时减少 eval 轨迹动作数和生成 token 数，有利于线上推理成本。
- 长尾失败 session 常见于多跳搜索、电商导购等场景，可直接借用长度校准的几何证据归一化，避免长反馈文本 token 数对 likelihood 量级的影响。